AI资讯新闻榜单内容搜索-AI破窗效应

关键词: AI新闻,Anthropic,Natural emergent misalignment from reward hacking,AI破窗效应

刚刚，Anthropic 发布了一项新研究成果。今天，他们发布的成果是《Natural emergent misalignment from reward hacking》，来自 Anthropic 对齐团队（Alignment Team）。他们发现，现实中的 AI 训练过程可能会意外产生未对齐的（misaligned）模型。